Task-Blind No MORE: Multi-Task Information Flow in Unified Ranking Backbones
任务盲不再：统一排序骨干中的多任务信息流
🧭 多任务学习 · 统一排序骨干 ★ 深度解读
Hello Group · University of Science and Technology of China · Institute of Software, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Information Science and Technology University
提出 MORE，以 Shared/Private Anchor Tokens 将多任务信息流嵌入统一骨干，逐层共同演化，在线多指标提升且延迟降低约30%
📌 工作参考价值（4 点）
- 任务感知 Anchor Tokens 可嵌入统一骨干：在电商/广告多任务排序中，不要只在塔层做 MMoE/PLE 路由，可在骨干每层引入 Shared/Private Anchor Tokens，使序列读取和特征交互直接感知任务差异，缓解共享瓶颈。
- 显式任务边界掩码是关键 trick：在 token mixing 或 attention 融合阶段，强制 Private Anchor 之间不可见，防止高频任务梯度主导混合权重、稀释长尾任务表示。这比单纯增加每任务容量更有效，可直接复用到多任务特征交互层。
- 请求级共享计算降低在线延迟：将同一请求的多个候选聚合为一个样本，用户侧序列编码只算一次并广播，候选侧差异通过 F 和 Anchor Tokens 表达。无需改变模型结构即可降低约30% P99 延迟，适合高并发推荐场景。
- 多行为序列 Cartesian product encoding：对行为类型组合编码为唯一 ID，而非仅 item 位置编码，可为下游任务感知序列读取提供更细粒度输入，减轻跨任务梯度冲突。